Nipote di uno schiavo e figlio di un muratore, riuscì a studiare musica grazie a una borsa di studio.
Al prestigioso Tuskegee Institute imparò a suonare il piano e la tromba, e il jazz rimase per sempre una sua grande passione. Trasferitosi a New York nel 1936, incontrò lo scrittore Richard Wright che lo instradò alla letteratura e al comunismo. Tra la fine degli anni Trenta e i primi Quaranta cominciò a pubblicare racconti su varie riviste.
Nel 1945 uscì dal Partito comunista americano, a cui riservò critiche severe negli anni successivi. Nel 1953 pubblicò Uomo invisibile dopo un lavoro di scrittura e riscrittura che lo aveva impegnato per circa sei anni: il libro vinse il National Book Award. Fra il 1955 e il 1958 visse prevalentemente in Europa, per un certo periodo anche a Roma. Tornato negli Stati Uniti, insegnò letteratura americana al Bard College, poi alla Rutgers University, a Yale e alla New York University. Nel 1967 la sua casa nel Massachussetts fu distrutta da un incendio che si portò via il manoscritto del suo secondo romanzo in fieri. Gran parte della sua vita rimanente fu dedicata a riscrivere il libro, che uscirà soltanto postumo e incompiuto nel 1999, con il titolo Juneteenth.
Presso Einaudi sono usciti L'uomo invisibile (1993), Il giorno della libertà (2003) e Viaggio di ritorno (2004).